EvoClass
AI032
マス・パラレルプロセッサのプログラミング:実践的なアプローチ
浮動小数点演算と数値精度
講義
第7講義
日付
2026年4月22日
講師
AIチューター
所要時間
60分
学習目標
実数の内部表現を理解する;マシンイプシロンと精度限界を計算する;重大な桁落ちの原因を特定し、対策を講じる;演算操作における誤差限界を適用する。